Mundo
Rede de Musk promete travar sexualização de "pessoas reais" no Grok
A rede social X anunciou medidas para impedir que o modelo de Inteligência Artificial Grok, use imagens de “pessoas reais” a fim de sexualizá-las.
E se qualquer pessoa pudesse editar fotos de pessoas reais e torná-las em imagens sexuais com inteligência artificial (IA)? Foi este cenário que levou a rede social X a anunciar, esta semana, medidas de restrição no funcionamento do Grok, o modelo de IA desenvolvido por Elon Musk, e integrado na rede social X (antigo Twitter).
A atualização em dezembro do ano passado, tornou mais fácil para utilizadores do Grok “despir digitalmente” fotografias de mulheres e crianças, removendo subjetivamente a sua roupa ou colocando-os em poses sexualizadas - sem qualquer consentimento das pessoas retratadas, de acordo com o jornal britânico The Guardian.
“Implementámos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", pode ler-se num comunicado divulgado, esta quarta-feira, na rede social X.
No mesmo comunicado, a rede social X informa que passou a bloquear geograficamente a capacidade de gerar imagens de pessoas reais com “roupas reveladoras” em territórios onde essa prática é ilegal.
“Agora bloqueamos geograficamente a capacidade de todos os utilizadores de gerar imagens de pessoas reais em biquíni, roupa interior e trajes semelhantes através das contas Grok e no Grok através da rede social X nas jurisdições onde isso é ilegal”, lê-se na rede social X.A plataforma reiterou ainda que apenas os subscritores pagos poderão editar imagens utilizando o Grok.
A decisão surgiu no contexto em que autoridades norte-americanas e europeias investigam o uso do Grok para criar imagens sexualizadas ou de abuso, incluindo conteúdos envolvendo menores, e em que países como Malásia e Indonésia bloquearam o acesso ao chatbot pelos riscos associados, segundo a BBC.
Elon Musk afirmou que, com as definições NSFW activadas, o Grok permitirá apenas “nudez da parte superior do corpo de humanos adultos imaginários (não reais)”, num nível comparável ao que é visto em filmes para maiores de 18 anos.
“Este é o padrão Estados Unidos. Isto pode variar noutras regiões, de acordo com as leis de cada país”, referiu Musk.
Elon Musk tinha defendido inicialmente a ferramenta Grok, acusando os críticos de quererem “suprimir a liberdade de expressão”, e chegou a publicar imagens geradas por IA do primeiro-ministro britânico, Sir Keir Starmer, em biquíni, gesto que agravou a polémica em torno da ferramenta.A reação internacional intensificou-se nos últimos dias. A Malásia e a Indonésia tornaram-se os primeiros países a banir o Grok depois de utilizadores terem relatado que fotografias foram alteradas para criar imagens explícitas sem consentimento.
No Reino Unido, a Ofcom - órgão regulador das comunicações - anunciou que vai investigar se a rede social X violou a legislação britânica relativa a conteúdos sexuais.
Caso se confirme a infração, o regulador poderá aplicar uma multa até dez por cento da receita mundial da empresa, ou cerca de 20 milhões de euros (18 milhões de libras), consoante o valor mais elevado, e poderá ainda solicitar uma ordem judicial para obrigar os servidores de internet a bloquear o acesso ao site.O primeiro-ministro britânico alertou que a rede social X pode perder o “direito à autorregulação”, embora tenha afirmado mais tarde que considerava positivas as notícias de que a empresa estaria a tomar medidas para resolver o problema.
Starmer já tinha condenado as imagens como “repugnantes e vergonhosas” e criticado a decisão de “transformar isto num serviço premium”, segundo a BBC.
Nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, afirmou que “este material, que retrata mulheres e crianças em situações de nudez e sexualmente explícitas, tem sido utilizado para assediar pessoas na internet”.
A investigadora de políticas públicas Riana Pfefferkorn mostrou-se surpreendida com a demora da rede social X em implementar novas salvaguardas, defendendo que as capacidades de edição do Grok deveriam ter sido removidas assim que o abuso começou.
Pfefferkorn levantou ainda dúvidas sobre a forma como o modelo irá distinguir imagens de pessoas reais e que medidas serão tomadas quando as regras forem violadas, acrescentando que Musk não ajudou a apresentar a empresa de forma séria e que seria útil se deixasse de “fazer coisas como republicar uma imagem de IA de Keir Starmer em biquíni”.
O poder do algoritmo
A tendência criar imagens sexualizadas usando “pessoas reais” tornou-se viral durante o período de Ano Novo, levando também a Comissão Europeia a anunciar, na segunda-feira, que estava a analisar "muito seriamente" as denúncias de que o Grok estava a ser utilizado para gerar e divulgar imagens sexualmente explícitas de crianças.
São geradas diariamente, fotos sexualmente sugestivas de menores com imagens de crianças de apenas dez anos criadas da noite para o dia.Ashley St Clair, antiga companheira de Musk, lamentou que a ferramenta de IA tenha gerado uma fotografia sua quando tinha 14 anos, em biquíni.
Também uma foto da atriz de Stranger Things Nell Fisher, de 14 anos, foi manipulada pelo Grok, no passado domingo, colocando-a em biquíni com um padrão repleto de bananas.
Algumas fotos de mulheres e crianças manipuladas pela ferramenta de IA parecem ter substâncias semelhantes a sémen espalhadas pelo rosto e peito.
Investigadores da AI Forensics - uma organização europeia que analisa algoritmos - verificou “50 mil menções a @Grok no Google e 20 mil imagens geradas pela ferramenta de IA, encontradas durante um período de apenas uma semana, entre 25 de dezembro e 1 de janeiro”, de acordo com o Guardian.
Pelo menos um quarto das menções a @Grok eram pedidos para que a ferramenta criasse uma imagem e, nesses pedidos, verificou-se uma elevada prevalência de termos como "ela", "pôr", "remover", "biquíni" e "roupa".Mais de metade das imagens eram de pessoas com "roupa mínima", como roupa interior ou biquínis, sendo a maioria mulheres que aparentavam ter menos de 30 anos, segundo o The Guardian.
Uma parcela das imagens representaram crianças com menos de cinco anos.
Os investigadores disseram que a maior parte do conteúdo ainda estava disponível online e incluía pedidos para gerar propaganda nazi e do Estado Islâmico.Musk publicou o emoji de rir até chorar na passada sexta-feira, em resposta a uma foto de uma torradeira manipulada digitalmente a usar um biquíni. "Não sei porquê, mas não consegui parar de me rir disto”, referiu.
Após a repercussão global sobre a natureza prejudicial do conteúdo, publicou mais tarde que "qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se fizesse o upload de conteúdo ilegal", de acordo com The Guardian.
Embora a criação de imagens que envolvam crianças sem roupa já seja ilegal, a lei que envolve a criação de deepfakes de adultos é mais complexa.Ativistas do Reino Unido conseguiram aprovar legislação em Junho do ano passado, que torna ilegal tanto criar como solicitar a criação de imagens íntimas sem o consentimento da pessoa. Contudo, as medidas concretas ainda não foram implementadas, o que significa que a legislação não é atualmente aplicável.
No entanto, já é ilegal partilhar estas imagens deepfake sem consentimento.
Charlotte Owen, deputada conservadora do Reino Unido, afirmou que “o Governo tem repetidamente adiado e recusado fornecer um calendário sobre quando colocará estas disposições vitais em vigor. Não nos podemos dar ao luxo de mais atrasos. Os sobreviventes deste abuso merecem mais. Ninguém deveria ter de viver com medo de que o seu consentimento seja violado desta forma terrível”.A nível nacional, ainda não existe uma lei que penalize os deepfakes nem a utilização de imagens de pessoas reais sexualizadas digitalmente. No entanto, a diretiva europeia 2024/385 obriga os Estados-membros a criar legislação até junho de 2027.
O caso Grok tornou-se um exemplo de como tecnologias de IA generativa podem ser exploradas para violar direitos de privacidade e dignidade humana quando não há salvaguardas adequadas. A reação regulatória - com investigações, proibições regionais e legislação em atualização - demonstra que governos estão cada vez mais dispostos a agir para proteger cidadãos destes riscos.
O debate coloca algumas questões em cima da mesa: Quem é responsável pelo conteúdo gerado pela IA? Devem as plataformas bloquear estas ferramentas por completo? E como equilibrar inovação tecnológica com direitos individuais e segurança? As respostas estão a moldar as regras que vão reger o uso de IA no futuro próximo.
A atualização em dezembro do ano passado, tornou mais fácil para utilizadores do Grok “despir digitalmente” fotografias de mulheres e crianças, removendo subjetivamente a sua roupa ou colocando-os em poses sexualizadas - sem qualquer consentimento das pessoas retratadas, de acordo com o jornal britânico The Guardian.
“Implementámos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis", pode ler-se num comunicado divulgado, esta quarta-feira, na rede social X.
— Safety (@Safety) January 14, 2026
No mesmo comunicado, a rede social X informa que passou a bloquear geograficamente a capacidade de gerar imagens de pessoas reais com “roupas reveladoras” em territórios onde essa prática é ilegal.
“Agora bloqueamos geograficamente a capacidade de todos os utilizadores de gerar imagens de pessoas reais em biquíni, roupa interior e trajes semelhantes através das contas Grok e no Grok através da rede social X nas jurisdições onde isso é ilegal”, lê-se na rede social X.A plataforma reiterou ainda que apenas os subscritores pagos poderão editar imagens utilizando o Grok.
A decisão surgiu no contexto em que autoridades norte-americanas e europeias investigam o uso do Grok para criar imagens sexualizadas ou de abuso, incluindo conteúdos envolvendo menores, e em que países como Malásia e Indonésia bloquearam o acesso ao chatbot pelos riscos associados, segundo a BBC.
Elon Musk afirmou que, com as definições NSFW activadas, o Grok permitirá apenas “nudez da parte superior do corpo de humanos adultos imaginários (não reais)”, num nível comparável ao que é visto em filmes para maiores de 18 anos.
“Este é o padrão Estados Unidos. Isto pode variar noutras regiões, de acordo com as leis de cada país”, referiu Musk.
Elon Musk tinha defendido inicialmente a ferramenta Grok, acusando os críticos de quererem “suprimir a liberdade de expressão”, e chegou a publicar imagens geradas por IA do primeiro-ministro britânico, Sir Keir Starmer, em biquíni, gesto que agravou a polémica em torno da ferramenta.A reação internacional intensificou-se nos últimos dias. A Malásia e a Indonésia tornaram-se os primeiros países a banir o Grok depois de utilizadores terem relatado que fotografias foram alteradas para criar imagens explícitas sem consentimento.
No Reino Unido, a Ofcom - órgão regulador das comunicações - anunciou que vai investigar se a rede social X violou a legislação britânica relativa a conteúdos sexuais.
Caso se confirme a infração, o regulador poderá aplicar uma multa até dez por cento da receita mundial da empresa, ou cerca de 20 milhões de euros (18 milhões de libras), consoante o valor mais elevado, e poderá ainda solicitar uma ordem judicial para obrigar os servidores de internet a bloquear o acesso ao site.O primeiro-ministro britânico alertou que a rede social X pode perder o “direito à autorregulação”, embora tenha afirmado mais tarde que considerava positivas as notícias de que a empresa estaria a tomar medidas para resolver o problema.
Starmer já tinha condenado as imagens como “repugnantes e vergonhosas” e criticado a decisão de “transformar isto num serviço premium”, segundo a BBC.
Nos Estados Unidos, o procurador-geral da Califórnia, Rob Bonta, afirmou que “este material, que retrata mulheres e crianças em situações de nudez e sexualmente explícitas, tem sido utilizado para assediar pessoas na internet”.
A investigadora de políticas públicas Riana Pfefferkorn mostrou-se surpreendida com a demora da rede social X em implementar novas salvaguardas, defendendo que as capacidades de edição do Grok deveriam ter sido removidas assim que o abuso começou.
Pfefferkorn levantou ainda dúvidas sobre a forma como o modelo irá distinguir imagens de pessoas reais e que medidas serão tomadas quando as regras forem violadas, acrescentando que Musk não ajudou a apresentar a empresa de forma séria e que seria útil se deixasse de “fazer coisas como republicar uma imagem de IA de Keir Starmer em biquíni”.
O poder do algoritmo
A tendência criar imagens sexualizadas usando “pessoas reais” tornou-se viral durante o período de Ano Novo, levando também a Comissão Europeia a anunciar, na segunda-feira, que estava a analisar "muito seriamente" as denúncias de que o Grok estava a ser utilizado para gerar e divulgar imagens sexualmente explícitas de crianças.
São geradas diariamente, fotos sexualmente sugestivas de menores com imagens de crianças de apenas dez anos criadas da noite para o dia.Ashley St Clair, antiga companheira de Musk, lamentou que a ferramenta de IA tenha gerado uma fotografia sua quando tinha 14 anos, em biquíni.
Também uma foto da atriz de Stranger Things Nell Fisher, de 14 anos, foi manipulada pelo Grok, no passado domingo, colocando-a em biquíni com um padrão repleto de bananas.
Algumas fotos de mulheres e crianças manipuladas pela ferramenta de IA parecem ter substâncias semelhantes a sémen espalhadas pelo rosto e peito.
Investigadores da AI Forensics - uma organização europeia que analisa algoritmos - verificou “50 mil menções a @Grok no Google e 20 mil imagens geradas pela ferramenta de IA, encontradas durante um período de apenas uma semana, entre 25 de dezembro e 1 de janeiro”, de acordo com o Guardian.
Pelo menos um quarto das menções a @Grok eram pedidos para que a ferramenta criasse uma imagem e, nesses pedidos, verificou-se uma elevada prevalência de termos como "ela", "pôr", "remover", "biquíni" e "roupa".Mais de metade das imagens eram de pessoas com "roupa mínima", como roupa interior ou biquínis, sendo a maioria mulheres que aparentavam ter menos de 30 anos, segundo o The Guardian.
Uma parcela das imagens representaram crianças com menos de cinco anos.
Os investigadores disseram que a maior parte do conteúdo ainda estava disponível online e incluía pedidos para gerar propaganda nazi e do Estado Islâmico.Musk publicou o emoji de rir até chorar na passada sexta-feira, em resposta a uma foto de uma torradeira manipulada digitalmente a usar um biquíni. "Não sei porquê, mas não consegui parar de me rir disto”, referiu.
Após a repercussão global sobre a natureza prejudicial do conteúdo, publicou mais tarde que "qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se fizesse o upload de conteúdo ilegal", de acordo com The Guardian.
Embora a criação de imagens que envolvam crianças sem roupa já seja ilegal, a lei que envolve a criação de deepfakes de adultos é mais complexa.Ativistas do Reino Unido conseguiram aprovar legislação em Junho do ano passado, que torna ilegal tanto criar como solicitar a criação de imagens íntimas sem o consentimento da pessoa. Contudo, as medidas concretas ainda não foram implementadas, o que significa que a legislação não é atualmente aplicável.
No entanto, já é ilegal partilhar estas imagens deepfake sem consentimento.
Charlotte Owen, deputada conservadora do Reino Unido, afirmou que “o Governo tem repetidamente adiado e recusado fornecer um calendário sobre quando colocará estas disposições vitais em vigor. Não nos podemos dar ao luxo de mais atrasos. Os sobreviventes deste abuso merecem mais. Ninguém deveria ter de viver com medo de que o seu consentimento seja violado desta forma terrível”.A nível nacional, ainda não existe uma lei que penalize os deepfakes nem a utilização de imagens de pessoas reais sexualizadas digitalmente. No entanto, a diretiva europeia 2024/385 obriga os Estados-membros a criar legislação até junho de 2027.
O caso Grok tornou-se um exemplo de como tecnologias de IA generativa podem ser exploradas para violar direitos de privacidade e dignidade humana quando não há salvaguardas adequadas. A reação regulatória - com investigações, proibições regionais e legislação em atualização - demonstra que governos estão cada vez mais dispostos a agir para proteger cidadãos destes riscos.
O debate coloca algumas questões em cima da mesa: Quem é responsável pelo conteúdo gerado pela IA? Devem as plataformas bloquear estas ferramentas por completo? E como equilibrar inovação tecnológica com direitos individuais e segurança? As respostas estão a moldar as regras que vão reger o uso de IA no futuro próximo.
Artigos Relacionados
